ReuseGR：自适应前缀复用解耦生成式检索
🧭 生成式检索 · 自适应前缀缓存 ★ 深度解读
Xidian University · Alibaba International Digital Commerce Group
7B离线规划共享SID前缀，0.5B在线个性化补全，以38.9%更低延迟达到与7B相当HR@100
📌 工作参考价值（4 点）
- 离线在线解耦的查询缓存：对高频 query，用大模型离线生成 SID 前缀，在线小模型仅完成剩余 token，平均延迟降低近 40%，适合电商搜索广告海量请求。
- ReuseCut 自适应深度选择：基于历史点击覆盖率用 Wilson 下限确定缓存深度，而非固定深度，可提升 HR@100 约 3.17 个百分点，可借鉴到 query 缓存策略。
- Path KD 路径级蒸馏：用 7B 教师的后缀 token 分布 KL 蒸馏 0.5B 学生，只训练 LoRA，提升在线补全质量且训练成本低。
- BudgetCut 分支选择：将 beam 搜索的分支选择建模为策略优化，用边际召回增益作为 OPD teacher 初始化，再用 GRPO 优化整组选择，比简单分数裁剪更有效，可直接用于生成式推荐的 beam pruning。
拍立淘MMSearch2.0：统一端到端多模态生成式搜索技术报告
🧭 生成式检索 · Semantic ID · 多模态电商搜索 ★ 深度解读
Taobao & Tmall Group of Alibaba
直接由图像+自由文本生成商品Semantic ID，统一相似/编辑/搭配意图，上线拍立淘带来显著GMV提升
📌 工作参考价值（4 点）
- 可直接复用「Sample–Beam rollout」：RL 训练时采样 reasoning prefix，SID 部分用 beam search 生成，使训练 rollout 与线上 beam-decoding 对齐；做生成式推荐/搜索的 GRPO 时能有效减少 train-serve mismatch。
- 用「混合 reasoning budget SFT」把 No-think / Low-think / High-think 训进同一个模型，线上通过 system prompt 切换 think budget，无需为不同延迟要求训多个模型或加意图路由；适合在候选生成与复杂查询场景复用。
- 数据生产采用可组合工具链：Coarse-Filter、Fine-Filter、Query-Text-Gen、CoT-Gen、Quality-Control，并按 cold-start / real-traffic / continuous production 配置不同 workflow；新意图冷启动可先用 proxy 商品关系合成数据，上线后用真实流量回流清洗，再持续混入生产。
- 三层 hierarchical SID（每层 8192 codebook）+ 原生 VLM 直接 beam decode SID 作为检索结果，省去独立召回/排序和意图分类器；已有成熟召回排序链路时，可先作为候选召回源 interleave，A/B 验证后再扩大流量。
Octen-WebGR：将生成式检索扩展到2亿网页
🧭 生成式检索 · Semantic ID ★ 深度解读
Octen AI
首个覆盖2亿网页的生成式检索模型，用两token语义ID直接生成URL，导航点击命中率59.6%
📌 工作参考价值（5 点）
- 商品/落地页生成式索引：可把商品或页面编码为两 token Semantic ID；用标题/类目+高频搜索词构造类似 URL text 的文本，经残差量化+碰撞消解生成唯一 ID。两套 token（s0/s1）比共享 token 更能区分语义前缀与组内排序。
- 训练采样与曝光：点击对按 n(q,u)/Nq × Nq^β (β=0.5) 加权，平衡头部 query 与长尾；对导航/转化集中 query 加保底样本；document-indexing 把商品文本当 query，一次曝光覆盖多条关联 query。
- 推理与资源：constrained beam search 只输出存在 item，避免下架商品/假 URL；点击表可用 lookup→GR 兜底。GR 4B 模型单 GPU 10GB，比 exact dense 索引省约40倍内存。
- 混合路由：GR 擅长热门 item 的新 query 表达，dense 擅长冷 item；用 GR 首位 item 的训练对数 + beam 概率做 serving 路由，可同时拿到两者优势，电商搜索/推荐可直接复用。
- 扩展训练：遗忘主要由曝光后的累积学习率 Λ 决定，而非模型容量；把高价值 pair 放在低 Λ 的晚期窗口曝光，或加大 batch 并等比升 lr，能提升保留率与样本效率。
SLIDE：搜索到列表蒸馏实现单次贪心生成式检索
🧭 生成式检索 · 列表蒸馏 ★ 深度解读
Zhejiang University · Taobao & Tmall Group of Alibaba
将离线item级beam search结果按分数拼接为列表蒸馏目标，训练学生单次贪心生成Top-K，以低成本逼近或超越线上beam search检索
📌 工作参考价值（4 点）
- 线上部署用单次贪心解码替代 item-level beam search：蒸馏后 0.5B 学生可逼近或超越同尺寸直接训练模型的 beam search，服务质量不变但推理路径更简单、延迟更低；teacher 仅离线构造数据，可无限扩容量。
- 蒸馏目标顺序不能乱：保留 teacher beam-score 降序对头部 HR 和 NDCG 至关重要；随机打乱会明显降低头部检索质量。如果自建列表蒸馏数据，不要做去重/有效性过滤再拼接，直接按固定长度 SID 块拼接并保持顺序。
- 目标长度与评价深度对齐：当 HR@K 为核心指标时，蒸馏目标取 K 个 teacher 候选即可，过长会显著增加离线 beam search 成本而不提升对应截断指标。
- 列表级 RL 后续优化空间大：在 SLIDE 基础上做列表级 RL，相对 SFT 提升可达 3.46-7.67%，远高于 item 级 RL 的 0.59-1.17%；可继续叠加 relevance reward 和 LLM-as-judge 自洽性奖励进一步提升相关性。
进化语义索引用于生成式检索
🧭 生成式推荐 · 语义索引进化 ★ 深度解读
Santa Clara University · Coupang
用 LLM 进化搜索自动优化生成式检索的语义索引，以 1M 参数 proxy 加速评估，在多个数据集显著提升召回率
📌 工作参考价值（4 点）
- 用小 proxy 模型做快速评估：训练 1M 参数的 GPT-2 只需 20 分钟，替代 1B 目标生成器 5 小时，单次评估成本降低 15×。在电商场景中，若目标生成器训练周期以周计，可以用小模型先过滤候选 SID/索引方案，大幅节省试错成本。
- 联合优化 SID 构建与冲突处理：联合进化比单独进化 SID 或冲突处理提升更显著（NQ R@100 +4.75 vs +1.58），提示在实际生成式推荐系统中，应把语义 token 的分组方式和同组内 disambiguation token 作为整体设计，而不是固定一个再调另一个。
- 使用可执行程序搜索自动发现索引规则：让 LLM 直接突变 SID 构建代码（如残差量化的距离度量、codebook 大小、是否加入 query 对齐损失），可以自动发现非手工设计的有效策略，例如 max-cosine 残差分配、doc+query 混合向量等，适合业务中探索 semantic ID 生成策略。
- 注意 proxy 转移性的边界：代理评估对语义索引有效，但对训练目标等跨尺度不稳健。在业务上，如果要用小模型代理大模型评估，需要先在小范围校准代理与目标的秩相关性，并区分“改输入/索引”还是“改优化器/损失”，后者要谨慎使用代理。
AGR：工具增强搜索的智能体生成式检索
🧭 生成式检索 · Semantic ID 工具增强 ★ 深度解读
Fudan University · Kuaishou Technology
把异构特征封装为可调用工具，按需在 SID 解码中注入观察 token，实现请求与层级自适应的生成式检索
📌 工作参考价值（4 点）
- 将用户长期行为、意图、位置、新鲜度等特征封装为 tool token + observation token，在 beam search 每个候选前缀上按需触发；不确定分支（如电影 vs 游戏）才调用对应工具，避免把全量特征塞进 prompt，既可降噪声也可省 serving 成本。电商搜索/推荐生成式召回中，可对用户历史点击序列、实时意图、价格敏感度、库存/时效做同样工具化。
- 训练数据构造的 when/where 规则可直接复用：只用 target 侧与请求侧一致且未显式出现的特征做正样本；计算 ρ_i = log P(同属性 item | prefix) 的增量，选信息增益最大的 SID 深度插入工具；sequential 工具用 Vote（前缀匹配投票）近似最大化预测增益，工程实现简单。
- 长行为序列压缩为单个 observation token 的 Vote/Attn 方案值得抄：对比直拼 400 个 GSU token，Recall@50 基本持平（0.3237 vs 0.3241），训练时间降 81.8%，serving GPU 降 42.9%，适合有长用户行为序列但不能承受长 prompt 成本的场景。
- 两阶段训练 + 对新增 tool token 的 loss 动态缩放 α_k（用 SID vs tool 难度比 clip 到 [0,1]）能稳定扩工具，避免破坏已学好的 SID 表示；这为线上迭代新增特征/工具提供低风险路径。
别重写 SID 映射：动态电商搜索生成式检索的拓扑保持
🧭 生成式检索 · SID 拓扑保持 ★ 深度解读
Taobao & Tmall Group of Alibaba · Nankai University · University of Science and Technology of China
系统量化 SID 重映射损害，提出冻结旧 SID/插入新物品/热启动的拓扑保持更新原则，线上 GMV +1.16%
📌 工作参考价值（4 点）
- 生产级生成式检索更新 SID 映射时，优先冻结旧 item 的 SID，新 item 按业务价值插入；避免整体重映射。该方法在 TmallAPP 7 天热启动更新 + 每日插入新 SID 的线上方案中带来 UCTCVR +0.29%、GMV +1.16%。
- 离线评估必须同时看窄 beam 和宽 beam：宽 beam 会掩盖语义漂移。文中映射刷新在 HR@1000 仅掉 8.33-10.85%，但 HR@1 掉 41.78-62.05%。如果线上 serving 用窄 beam，宽 beam 离线指标会给出虚假安全感。
- warm-start 直接 fine-tune 旧 checkpoint 即可，不要做 model soup / weight interpolation。Frozen warm-start 对旧 item HR@1 提升约 10%，新 item HR@1 提升约 109%；而权重混合同等或更差。若没有算力做 warm-start，宁可不训练继续冻结旧 SID，也不要重映射后微调。
- 电商大 item 量级下，hybrid collision-aware SID 设计可控：头部 top-100 唯一 token，尾部共享 bucket，比 full-sparse 略优且更省码本；可作为生成式检索落地的工程选择。
计算而非记忆：面向高效生成式检索的位分解标识符
🧭 生成式检索 · 数值 DocID 零样本适配 ★ 深度解读
Leiden University · Shandong University · Radboud University
将文档向量符号位作为 DocID，结合多树束搜索，实现零训练新文档适配与最低推理延迟
📌 工作参考价值（4 点）
- 新物品/新文档冷启动：可用预训练编码器对物品标题、属性、描述做 tanh 后取符号位，直接生成可打分的二进制 DocID，无需为新 ID 训练 embedding；通过 weight interpolation（α=0.5）融合通用编码器与任务调优编码器，能在 seen/unseen 间取得平衡。
- 推理工程：采用 flat token 评分，所有候选 token 在一次 encoder 前向中完成打分，不需要 autoregressive decoder；再用多棵不同 bit 排列的前缀树做 constrained beam search（h=8），可比单纯增大 beam 更有效地减少早剪枝，提升未见文档召回。
- 资源与延迟：120-bit DocID 仅需 15 bytes/doc，单 query 延迟 24 ms（A100），显著低于现有生成式检索方法；适合商品库频繁更新、需要低延迟检索的场景，可作为生成式推荐索引层。
- 局限与改进：平坦 ID 缺少层级先验，高召回略弱；若业务需要 Hit@100 更优，可尝试将 bit-factorized 与 RQ-VAE 等残差量化层级结构结合。
微信工业级搜索的统一生成式检索框架 WeGR
🧭 生成式检索 · SID 构建 + RL 偏好优化 ★ 深度解读
Tencent Penguin Island
联合行为感知 SID 构建与动态 horizon RL，解决生成式检索中的码本坍塌和奖励稀疏
📌 工作参考价值（4 点）
- SID 构建：将 query-item / item-item 协同信号作为对比学习损失加在连续表征上，并通过分离的 projection head 避免直接干扰 codebook；同时使用 codebook refresh（只对第一层，EMA 阈值重置）和残差保真 + 碰撞正则化，能显著提升 codebook 利用率，避免 SID 坍塌。这些 trick 可直接迁移到电商 Semantic ID 学习。
- RL 稀疏 reward：如果直接使用点击/订单作为 outcome reward，GRPO 会因 exact match 而大面积失效。借鉴 DHPO 的动态 horizon 课程，把 SID 前缀匹配作为早期 reward，逐步扩展到完整 SID，并只更新对应前缀 token，既不需要离线训练 ranker，也避免 beam search 的分布偏移。
- 多正样本 SFT：工业搜索 session 内通常有多个正反馈 item，MSFT 同时拟合所有正样本，可作为 RL 的稳定正则项，防止 policy 在稀疏 reward 下遗忘检索能力；建议与新策略 RL 联合训练，权重 0.5 左右可参考。
- 工程部署：生成式检索替换传统多路召回能直接减少进入粗排的候选量（本案 -38.10%），带来 CPU/GPU 和延迟收益；可考虑先 additive，再逐步加大替换比例验证收益。
生成式检索中范式、标识符与解码的解耦分析
🧭 生成式检索 · Semantic ID · 扩散解码 ★ 深度解读
Artefact Research Center
控制 AR/扩散、docid 与解码，证明解码可改变扩散 Hit@1 6.6-13.7 点，one-pass scoring 近似最优
📌 工作参考价值（4 点）
- one-pass scoring：用全 mask docid 一次前向得到 L×K 概率表，按每个候选 docid 的 code 概率求和打分，免迭代去噪，可直接作为扩散生成式推荐/检索的 top-K 召回或粗排；在本文 11/12 设置中打平或超过 generate-and-match，工程上非常适合低延迟场景。
- 训练 recipe 必须按范式独立调：AR 的高 weight decay、线性衰减直接用于扩散会使模型输出常数；扩散需要更低 weight decay、常数学习率、warmup 等。落地时不要复用 AR 训练配置。
- random ID 在训练查询覆盖充分时保留 RQ 的 83-90% Hit@1，说明语义层级结构并非核心收益来源；若业务训练曝光已足够，可先用简单 ID 或轻量语义 ID，把资源投入解码与训练稳定性。
- PQ/独立 code 在生成 miss 后 gold 更容易留在候选里（恢复率约为 RQ 的 2.3 倍），且更适合并行解码；若采用 block diffusion 或 MDLM，可优先考虑 PQ-like 或维度独立的 semantic ID，并搭配 one-pass/chain-rule 解码。
生成式信息检索语义 ID 空间的系统性研究
🧭 生成式检索 · Semantic ID 设计空间 ★ 深度解读
Artefact Research Center · LERIA, Angers University
统一 PQ 与 RQ 的语义 DocID 设计空间，发现混合 PQ×RQ 最优，Uniqueness Ratio 是训练前关键门槛
📌 工作参考价值（4 点）
- 在生成式推荐/检索中构建 Semantic ID 时，先计算 Uniqueness Ratio U：若 U<0.9，下游 MRR/Recall 会显著崩塌，应作为训练前的硬性门槛，避免浪费训练资源。
- 短 DocID 或强压缩 token 预算下，优先选择端到端训练的 R-VQ，而不是分层 k-means；R-VQ 码本使用更均匀，能保持 U 和检索性能，例如 M=4 时 R-VQ 仍达 44.0 MRR@10，而 PQ×R-VQ 只有 26.2。
- 可尝试混合 PQ×RQ 结构：将 item embedding 先分成 C 个并行子空间，再在每个子空间做 L 层残差量化，同等 token 预算下（如 C=2, L=8）可超过纯 PQ 和纯 RQ，适合电商物品多模态 embedding 的语义 ID 设计。
- 用训练前的结构诊断指标（Uniqueness、Normalized Entropy、Shared Semantic Similarity、Contrastive Alignment Preservation）快速筛选 DocID 空间，尤其要区分 hierarchy 与 parallelism 的结构偏好，选择对应度量，避免只靠端到端训练评估。
多语言编码器生成的 Semantic ID 跨语言一致性检验
🧭 生成式推荐 · Semantic ID 跨语言一致性 ★ 深度解读
Amazon · Rutgers University
用 ESCI 翻译对照证明：多语言编码器与平衡码本不能保证同一商品跨语言 SID 前缀一致，需显式对齐目标。
📌 工作参考价值（4 点）
- 部署多语言生成式推荐时，不要假设多语言 encoder 的 SID 天然跨语言一致；若用 exact prefix 做召回/索引，需为同一商品的不同语言文本增加显式对齐约束或后处理映射。
- RQ-VAE 第一层易坍缩到单码，工程实现要加输入 centering、per-step dead-code recycling，并监控每层有效码数 Keff；E5 原始空间共享 offset 强，直接量化会失效。
- 拟合码本时语言平衡不必然带来更好 cross-lingual agreement；实验中英文 only 拟合反而保留更多翻译前缀。若目标是英文为主索引，可保守采用英文主导拟合 + 跨语言一致性损失。
- 评估 quantizer 扰动敏感度时，isotropic control 会高估语言方向选择性，应构造 product-directed control（沿真实产品 embedding 方向移动相同距离）才能得到可靠结论。
残差轨迹蒸馏用于生成式检索
🧭 生成式检索 · Semantic ID · 残差蒸馏 ★ 深度解读
Beihang University · Meituan
把冻结RQ索引器的残差码本偏好蒸馏进SID解码状态，保留检索索引与推理不变
📌 工作参考价值（4 点）
- 如果已经在用 RQ Semantic ID 做生成式召回/推荐，可以把冻结的 RQ indexer 当成现成 teacher：沿存储 SID 重建残差，用残差到码本的距离构造 soft target，KL 对齐 SID 解码状态；训练只加几个投影头，推理时全部移除，beam search 和索引完全不变。
- 多 horizon future 监督值得复用：让早期解码状态同时预测后续几层码本偏好，类似 multi-token prediction，但目标是码本分布而非 hard token；这能提前注入后续结构，缓解 beam search 早期剪掉正确 item 的情况，电商商品检索里尤其适合互补/长尾商品。
- 必须做 collision-aware 修正：线上 SID 通常经过去重/冲突解决，直接拿原始 RQ 残差会与最终索引不一致。实现时沿最终存储 SID 重建残差路径，并对 soft target 做最小 margin 插值，保证存储 code 仍是最高概率；这是工程能否落地的关键细节。
- 控制实验显示 shuffled teacher、非目标对应或全局 codebook-only 都会掉点，说明 teacher 必须保留 item 级对应关系，不能只做通用码本统计蒸馏；在生成式推荐里 TIGER 类骨干同样可接入，B-Shop/Yelp 上提升更明显。
抖音 GEAR：生成式端到端广告检索框架
🧭 生成式推荐 · VQ/Semantic ID ★ 深度解读
ByteDance
GEAR 用正交基 BasisRQ 稳定码本更新，并用轻量重排头消解 item 碰撞，在抖音广告上线取得显著收益
📌 工作参考价值（4 点）
- BasisRQ 可迁移到动态分布下的生成式召回码本：用可学习正交基重参数化 codebook，训练时全局共享梯度、避免死码，推理时码本可预计算缓存、零额外延迟；若业务中生成式 item tokenizer 因流式数据分布漂移而码本利用率低，可替代 EMA 或冻结码本。
- prefix-aware 快速距离计算值得直接复用：在 RQ 每层按前序量化结果对 codebook 做逐元素 affine 变换，再通过代数重排把距离矩阵计算保持为 O(bNd)，避免 3D tensor 内存爆炸；适合电商/广告巨量 item 的 tokenization。
- 轻量生成式重排头可低成本解决 token 碰撞：复用 decoder autoregressive hidden states 生成用户向量，与 item tower embedding 做 dot product，只多一步 decoding + INT4 低精度打分；当 item token 序列碰撞严重时，不必依赖唯一 token 或缩小码本容量。
- 工程化训练与索引策略可借鉴：渐进 warm-up 先训两塔、再开 RQ、最后开生成与重排；生成损失按 secpm 重加权强化高价值样本；近线索引分钟级更新 item 序列与 embedding，CSR-like 目录 + per-sequence 截断保证候选多样性。
学习层级生成式检索的多分辨率相关监督
🧭 生成式检索 · Semantic ID 多分辨率监督 ★ 深度解读
Beihang University · Meituan
将文档相关度投影为 SID 层级各层的条件分支分布，训练共享 query 表示并保留标准自回归推理
📌 工作参考价值（4 点）
- 对于生成式召回中一个 query 对应多个相关 item 且共享粗粒度 ID 的情况，将 item 相关性按 SID/品类树投影到各层前缀，构造条件分支分布作为辅助监督，训练后丢弃辅助头，不增加推理延迟，可直接叠加到现有 full-SID/生成式召回训练。
- 用 parent relevance mass 加权局部 KL，并在候选集包含所有相关 children 和若干高打分 legal sibling negatives，显式建模同父节点分支竞争，比每条正样本独立 one-hot 监督更稳，可迁移到层级品类树下的 item ID 生成。
- 推理时可在 beam search 中加入前缀级 query-catalog 兼容性打分（如品类、属性、词法匹配），权重在验证集选，提升最终排序中相关分支覆盖率；中间层作用更大，别只靠 leaf 分数。
- 可借鉴 refinement entropy / ambiguity 指标量化 query 在每层 ID 的分支不确定性，用于评估 ID 结构是否合理、标注是否稀疏；不完整标注会掩盖粗粒度分支。
生成式检索器学习语义ID时如何保留语言生成能力
🧭 生成式检索的语义ID防遗忘训练 ★ 深度解读
University of Glasgow · Brave
SpeakGR用on-policy蒸馏的正向KL正则，在SID检索微调中保留LLM文本分布，语言drift降低81-94%且检索不降
📌 工作参考价值（4 点）
- 在电商/搜索的生成式召回（如物品Semantic ID或文档SID）中，仅用SID CE微调会让LLM的对话/解释能力迅速崩溃：PPL从31.69涨到53966，Top-1一致性从100%掉到0.13%。因此如果系统还需要模型回答追问、解释结果或澄清query，必须在SID阶段加语言保持损失。
- 可复用轻量正则：准备一个prompt池（WikiText自然前缀 + 指令/QA类），每步约6条；学生以文本-only rollout生成前缀（mask SID logits，temperature 0.8/top-p 0.9/top-k 20），冻结base模型给出同前缀next-token分布，最小化正向KL（重新归一化到原始词表）。比offline replay更稳定，几乎不增加额外模型。
- 三阶段训练（doc→SID、伪query→SID、真实query→SID）里，语言正则可在Stage1用λ0=0.1并逐步加强；若不想手动调权，可用Adaptive SpeakGR：对preservation KL做EMA，λ按clip(K/ε−1)乘性更新，ε取0.5–2较稳，过严的ε反而双输。
- 工程上要单独统计SID mass：SFT-only在文本上下文里有4–26%概率分配给SID token，而SpeakGR可降到0.2–0.6%；保持前向KL的同时需mask SID logits，避免评估语言时SID泄漏。
X-Rec 技术报告：基于流匹配的连续嵌入生成式召回
🧭 生成式推荐 · 连续嵌入 Flow Matching ★ 深度解读
ByteDance · TikTok
用 Riemannian Flow Matching 在连续 item embedding 空间直接建模推荐分布，兼得 SID-AR 表达力与 3.46 倍推理吞吐
📌 工作参考价值（1 点）
- 借鉴连续嵌入生成式召回替代 SID-AR：如果你的 item 已有归一化 embedding（如双塔/对比学习），可以直接用 Flow Matching 在连续空间建模 p(x|c)，避免量化误差和自回归解码，吞吐提升 3.46×，召回与 SID-AR 持平。\n- Anchor Conditioning 实现粗到细生成与多样性控制：先预测目标 item 的粗粒度簇 anchor，再基于 anchor 生成 fine embedding；该设计在 TikTok 上提升 Recall@20 2.05pp，且通过调节 anchor 采样温度可直接控制召回多样性，电商场景可对应类目/品牌/价格带等粗粒度约束。\n- Late-Interaction DiT 大幅提升推理效率：只在最后一层 Transformer 做 velocity 估计，复用前缀 KV cache，1 层相比 14 层仅掉 1.05pp 召回，但吞吐提升 8.28×；适合对 QPS 敏感的在线召回系统。\n- 两阶段训练：先序列预训练，再检索事件 SFT：用因果 attention mask 和前缀 mask 并行计算多步损失；预训练带来 5.27pp 召回提升，建议落地时先在大规模用户序列上预训练，再在具体业务场景 SFT。
OneTrans-V2：用单一 Transformer 统一工业推荐中的召回、粗排与精排
🧭 工业推荐系统级联统一 · 共享 Transformer ★ 深度解读
ByteDance Global E-Commerce Recommendation Foundation Team
用一个 Transformer 统一召回/粗排/精排级联，共享用户上下文，结合 DCGR 与 SNT，GMV 提升 9.74%，吞吐 3.2×
📌 工作参考价值（4 点）
- 统一多阶段用户表征：在电商/广告推荐中，可将召回、粗排、精排的用户行为序列编码合并为一个共享 Transformer，通过 stage visibility mask 隔离 stage-specific tokens，行为序列只需编码一次，显著减少重复计算，提升吞吐。
- 生成式检索的多目标在线调控：DCGR 的决策前缀 + 业务偏移量（βφ(z)）可以在不重新训练的情况下动态调节生成式推荐的目标倾向（如提升高客单价商品曝光），适合多业务目标共用一个生成模型。
- 稀疏 MoE + μP 稳定扩展：采用 DeepSeekMoE 式 fine-grained experts + shared expert，配 sigmoid router，结合 μP/Depth-μP 参数化，可在保持激活计算近似不变的前提下扩大模型容量，适合大规模推荐模型。
- SNT 训练效率优化：按用户窗口组织训练样本，一次编码用户行为序列，该用户的所有曝光和所有 stage 复用该编码，训练加速 4.4×，适合行为序列长、曝光多的电商推荐场景。
UniPolicy：生成式搜索广告的统一目标专属策略
🧭 生成式广告检索 · 多目标RL对齐 ★ 深度解读
Meituan
用目标前缀、MoE-LoRA路由和专属FFN解耦多目标生成式广告检索策略，在线提升CTR/RPS/收入
📌 工作参考价值（4 点）
- 多目标生成式检索不要简单 reward fusion：用 objective prefix token + 稀疏 MoE-LoRA + objective-specific FFN，在同一个生成骨干上做层级参数隔离，显著缓解 eCPM/CTR/相关性之间的梯度竞争。
- 利用多阶段行为日志构造 Click > Exposure > Miss 的 pairwise margin loss，把“曝光未点击”样本用起来，显式建模候选间相对偏好，能提升生成结果的 NDCG 和点击候选排序。
- 推理侧采用共享 KV cache 的并行多策略 beam search，业务可灵活分配各目标候选配额；固定候选预算下用 trim-and-backfill 兜底，P99 延迟只增加 2.5%，适合工业检索在线部署。
- 目标前缀 token 可控性强：单独输入 <eCPM>、<CTR>、<Relevance> 即可触发对应偏好，线上可以按活动或场景动态调整配额，复用到电商推荐/广告召回的多业务目标平衡。
段落驱动的多标识符文档检索
🧭 生成式文档检索 · 多 passage ID ★ 深度解读
Institut de Recherche en Informatique de Toulouse (IRIT)
用多个 passage 级标识符替代单一文档 ID，结合多目标训练与 query-段落对齐，提升生成式文档检索的 R@1 与 MRR
📌 工作参考价值（4 点）
- 在电商/内容生成式检索或推荐中，不要为长详情页/多卖点商品只建一个 Semantic ID；可先做段落/卖点切分，为每个语义单元建“文档/商品标题+段落标题”式层级 ID，提供多个生成入口，用 max 概率聚合回父级 item。
- 多目标加权损失可落地：当 query 命中商品多个属性/卖点时，给最相关属性（如 BM25 最高分卖点）更高权重（如 0.6），其余均分，避免单一监督信号过强。若类目内容同质，可尝试 all-passages 标签；内容异构大时用 best-passage。
- 原始训练 query 增强很关键：仅用合成 query 会弱化真实 query 分布；可将真实 query 通过 BM25 对齐到最佳段落，或根据数据均匀度选择 all passages，能带来显著 R@1 提升。
- 标识符顺序有讲究：Doc→Pass 前缀结构更适合 autoregressive 解码，能先缩小到正确文档再选段，可复用到层级式 ID 设计中。
REDSI：解决可微搜索索引文档检索的可复现性与评估一致性问题
🧭 生成式检索 · DSI 可复现性 ★ 深度解读
Artefact Research Center · INSA Rennes, IRISA, CNRS, Université de Rennes · MICS, CentraleSupélec, Université Paris-Saclay
首个支持 DSI 三种标识符的开源实现及参数化 NQ320K 构建管道，系统分析模型缩放
📌 工作参考价值（4 点）
- 商品/文档标识符设计：如果商品库规模在几十万以内，直接使用 atomic ID（每个商品一个输出 token）可能比 semantic ID 更好，训练快、推理只需一步解码，且对模型容量下降更鲁棒；注意大规模库的输出词表扩展性。
- 数据集构建：复用公开数据集或自建检索/推荐数据集时，明确去重键（稳定 ID 如 SKU/商品ID，而非 title 或 URL），清洗文本序列化（去除 infobox、导航、特殊字符）以减少 unk token，对固定输入长度前缀影响显著。
- 训练采样比例：不要盲从原论文的 indexing:retrieval ratio，应调参。本文发现自然比例（约 1:2.8）远好于 DSI 原文的 32:1，这个超参常被忽略但影响显著。
- 解码简化：生成式检索/推荐中，在 beam search 后接 valid ID 过滤即可，无需实现复杂的 trie 约束解码；模型缩小时同样有效，可降低工程复杂度。
自底向上聚类构建生成式检索 Semantic IDs
🧭 生成式推荐 · 自底向上 Semantic ID ★ 深度解读
Cornell Tech, Cornell University · PayPal
提出自底向上层次聚类生成 Semantic IDs，保证唯一性并保留嵌入局部结构，提升下游生成式检索效果
📌 工作参考价值（4 点）
- 电商生成式推荐中，可直接用自底向上聚类对商品文本 embedding 生成 Semantic IDs，避免 RQ-VAE 训练和 codebook collapse 调参；唯一性由构造保证，不再需要追加去重码，简化线上 ID 映射。
- 冷启动上新：新商品只需找最近邻已有商品，继承前几层码字并分配唯一末位码即可纳入生成式检索，无需重建整个 ID 空间，适合频繁上新的电商场景。
- 层级设计中可通过 cluster size cap 控制每个簇的商品数量，避免头部类目簇过大导致解码搜索空间不均；同时监控 silhouette score、avg rows per ID、簇内类目纯度等指标。
- 注意自底向上聚类簇数通常少于典型 RQ-VAE codebook，粗粒度簇的类目纯度可能下降；在强类目体系场景可结合类目树约束或增加层级来改善。
协同进化生成式检索：查询与物品双侧关键词空间的强化学习联合优化
🧭 生成式检索 · 双侧关键词协同进化 RL ★ 深度解读
University of North Carolina at Chapel Hill · Apple
用双侧 LLM 生成关键词并直接做倒排索引匹配，通过 SFT 对齐与交替 GRPO 协同进化，F1 最高提升 36.1%
📌 工作参考价值（4 点）
- 可直接落在电商/广告关键词召回系统：用两个 LLM 分别生成 item 侧搜索词和 query 侧扩展词，再通过倒排索引匹配，天然兼容广告主 keyword bidding 和现有 keyword-based 基础设施，比只优化 query 侧更贴近业务可控性。
- SFT 对齐初始化便宜且有效：先用 base LLM 离线为每个 item 生成关键词，再按相关 item 的关键词池聚合出 query 目标关键词；这样能避免 RL 冷启动，也适合用行为/成交 labels 构造对齐数据。
- item 侧用 counterfactual marginal reward 优化全局 F1 很实用：工程上通过缓存参考索引和只计算受影响 query 集合，避免每次 rollout 重建全量索引；在业务中可以把 F1 换成加权 F-measure，按 precision/recall 优先级调节，例如更严地惩罚无关广告。
- 给 query 生成器加搜索结果或在线提示，能明显提升效果：Internal 数据集上 +Search Results 将 F1 从 0.3963 提升到 0.4379，适合解决拼写错误、非英文、实体型 query；在 Agent 搜索/推荐场景中，可把已有检索结果作为 context 注入生成器。
电商生成式检索：联合学习 Embedding 与 Codebook 的同商品簇一致性方法
🧭 生成式检索 · 联合训练 Embedding/Codebook ★ 深度解读
Alibaba Group
用同商品簇信息联合训练 embedding 与 codebook，消除两阶段误差累积，提升生成式电商检索召回
📌 工作参考价值（4 点）
- 电商场景中，可利用商品簇（同 SKU/同款不同卖家）作为强监督：对每个商品采样同簇商品并计算均值 embedding，加 MSE 拉近商品 embedding 与簇均值，能显著提升 Semantic ID 的一致性；可直接复用现有商品关系（ASIN/货号）构造训练信号。
- 避免两阶段训练：将 RQ-VAE 的 codebook 与 embedding model 联合优化，同时引入 query-product 对比学习，让 codebook 不再只依赖静态商品 embedding；实现时可将 InfoNCE 分别加在原始 embedding 和量化重构表示上，端到端对齐查询与商品空间。
- 引入新 token 的 LLM 微调可采用两阶段：先 product info -> product ID，再 query -> product ID，让模型先掌握新特殊 token 的语义，再学习查询到 ID 的映射，对生成式检索 fine-tune 更稳定。
- 规模配置可参考：5 层 codebook、每层 32 码、768 维、GTE 编码器、Qwen2.5-7B；20M 商品 + 40M query 训练即可获得稳定提升；ALSP 指标适用于评估同簇商品 ID 的一致性。
HF-SID：面向位置服务生成式检索的高保真语义 ID
🧭 生成式推荐 · Semantic ID ★ 深度解读
AMAP, Alibaba Group · University of Science and Technology of China · Tsinghua University
通过 3D 坐标编码、数值专用编码器与末层结构对比学习，在不增加 SID 长度下大幅提升 LBS 生成式检索的地理与业务指标
📌 工作参考价值（4 点）
- 生成式推荐里别只调 RQ-VAE/codebook：item 表示在量化前若丢失连续数值、层级、地理等信息，量化后无法弥补。优先审视 embedding 是否保住了关键属性。
- 对价格/评分/销量等异构数值，可以用单个 [NUM] token + 数值编码器 + Type Embedding，避免数字被 BPE 切碎、跨属性尺度混淆；这个 trick 可迁移到电商生成式召回。
- 结构对比学习只作用在最后一层残差，能分离同一粗类下的细分类目/共址 item，且不破坏前两层地理/语义前缀；对「同一商圈/同一店铺下的不同商品」场景有直接参考。
- 线上 A/B 显示保真度主要提升 CVR 而非 CTR，说明 SID 影响的是候选资格/品类准确性而非曝光点击；评估生成式检索应更看重转化类指标。
偏好塑造相关性：个性化生成式检索的跨组件层级语义对齐
🧭 生成式检索 · 个性化语义对齐 ★ 深度解读
University of Science and Technology of China · Meituan
提出 CHAP：层级语义对齐与双视图个性化生成式检索，单次解码加速，线上转化提升2.98%
📌 工作参考价值（4 点）
- 冻结 RQ-VAE codebook，对 query encoder 做 cross-sample alignment + 层级对比学习 + soft probability distillation，可显著缩小 query 与 item 的 Semantic ID 语义 gap，适合电商搜索直接复用；但需预留 codebook 动态更新机制，避免丢失协同过滤信号。
- 用 sparse SID + dense raw embedding 双视图建模用户历史：sparse 提供稳定粗排结构，dense 补足长尾/个性化语义，尤其对歧义 query 有效；为防止历史行为淹没当前 query，decoder 初始化只用 query，不要喂完整历史当前缀。
- 推理架构上，将 Transformer Decoder 限制为单次前向，后续层级 SID 用轻量 residual block 生成；并行采样 50 个候选后，用 temperature-normalized sparse/dense 分数乘性融合做重排。该设计把 QPS 从 32.4 提升到 78.9，适合线上低延迟召回。
- 业务目标不要只看 CTR：CHAP 线上 UV-CXR +2.09%、支付订单 +2.98%，说明语义对齐 + 双视图更能触达转化意图；部署时可通过 Triton 解耦模块，不依赖 query cache，保证实时性。
ICEGR：面向电商搜索的意图一致端到端生成式检索框架
🧭 生成式检索 · Query-intent 一致 ★ 深度解读
University of Science and Technology of China · Baidu · Beihang University · Renmin University of China
提出 ICEGR，通过意图感知 Semantic ID、合成查询增强 SFT 与相关性校准偏好优化，提升电商生成式检索的查询意图一致性
📌 工作参考价值（4 点）
- 可迁移点：
- Semantic ID 构建：不要只用标题/描述等静态文本。用 query-product 点击 logs 对齐 embedding（InfoNCE），构建 shared-query co-click 图做语义锚定图传播，再融合产品历史 query 的加权意图向量，并用 confidence gate 控制强度；最后 RQ-KMeans 量化。利于 SID 空间编码搜索意图，可直接用于生成式检索/推荐中的 item ID 学习。
- SFT 数据补足：对全目录商品用结构化字段（SPU/品牌/类目/系列/属性）自动生成多粒度合成 query（实体指定 + 属性约束），采用 two-stage：先 synthetic query-to-SID 训练，再真实日志微调。对长尾低曝光商品尤其有效（Low 组 Recall@20 +36.2%），可显著缓解 query-to-item 监督稀疏问题。
- 业务偏好优化：做 DPO/RL 时先限制候选需通过语义相关性 scorer（SRS），只在相关子集内比较业务价值（SBP）；用 pairwise composite-score margin 动态缩放 DPO 系数，避免过度优化强偏好对，保留 query 意图。辅助 SFT 项防退化。线上可直接作为端到端生成路径插入 MCA：beam search 生成 top-k 直接进最终列表，其余候选走原排序。
PailitaoGR：生成式图像检索中的潜在以图思考方法
🧭 生成式检索 · Semantic ID · 视觉商品搜索 ★ 深度解读
Alibaba Group
在原始查询图上内化目标聚焦与选择性辅助证据利用，实现不裁剪缩放与不 OCR 阅读，生成式检索平均提升 13.8%
📌 工作参考价值（4 点）
- 在拍立淘类图像检索/生成式推荐中，可借鉴“能力内化”架构：用轻量 Target Token Scoring + Token-level Residual Modulation 对 visual token 做目标加权，不改变主干，推理零额外延迟；把显式 grounding/crop/OCR 能力蒸馏进单一模型，避免多步工具调用。
- On-policy distillation 对自回归 SID 生成很有价值：教师和学生共享学生自己采样的 prefix，蒸馏 top-K 候选分布，比 ground-truth prefix 蒸馏更贴近推理时的错误前缀场景，能降低 train-inference mismatch。
- 利用 SID 的 coarse-to-fine 结构设计 attention guidance：fine/medium token 用 ROT mask 惩罚目标框外注意力，coarse token 保持高熵广注意；这一思路可迁移到任何 hierarchical Semantic ID 的商品检索，提高解码对主体商品的判别性。
- 辅助信息（如 OCR 文本、品牌标）引入要加 utility/accessibility 双门控：只有当 OCR 教师相对 Crop 教师有增益且学生自己也能利用该信号时才 transfer，否则 suppress/skip；能避免无关水印或背景文字误导，适合电商 query 图中常见噪声。
CodeHID：学习可寻址层次代码索引的生成式代码检索
🧭 生成式检索 · 层级语义 ID ★ 深度解读
Xiamen University
将代码检索重构为层级语义 DocID 生成，以 kNN 伪标签学习前缀语义结构，并在训练与推理侧联合引导路径选择。
📌 工作参考价值（4 点）
- 构建商品/内容语义 ID 时，不要只用 RQ-VAE 自重构；叠加 kNN 伪标签约束前缀共享，让相似 item 在浅层共享前缀、深层保留区分度，可形成类目/风格/价格带的多粒度索引。
- 生成式推荐/召回训练时，除标准 next-token DocID loss 外，挖掘 query-item 相似度 TopK 的 hard negative DocID，加 pairwise margin loss 和 teacher-student rank distillation，能明显提升 Top1 命中；工业界可复用双塔打分作为 teacher。
- 推理时先粗召回 TopB 候选 item 构建合法前缀 trie，再做约束 beam search，并用 query-item 相关性作为 prefix-level lexical bonus 微调 beam 打分，比全空间解码更稳定、低延迟。
- 采用 frozen encoder + LoRA decoder 架构，DocID 离线固定，线上只更新 query 到 DocID 的生成路径，适合快速迭代生成式召回模型。
GRAFT：面向多维 facet 的科学文献探索图蒸馏生成式检索
🧭 生成式检索 · 图蒸馏与 facet 归因 ★ 深度解读
King's College London
将多维 facet 论文关系图蒸馏进生成式检索器，用 coverage-aware 蒸馏与 graph-RRF 保留覆盖和归因，免索引推理
📌 工作参考价值（4 点）
- 多面关系建模：把商品/内容之间的关系显式拆成多个 facet（如功能、场景、风格、人群），每条边带类型+强度；召回/推荐时按 facet 分别检索并保留「为什么推荐」的 provenance，直接输出推荐理由。
- 生成式推荐 ID 设计：用自然语言 facet-item/卖点短语作为 DocID，而非数字 cluster ID，能显著复用 LLM 先验；论文中自然语言 DocID 比 numeric codebook R@20 高 2.4×。
- 解决长尾/冷启动的 coverage-aware distillation：生成式训练里若只按边均匀采样，稀疏图会导致 16% item 从未被作为 target 训练；落地时可采用 min-coverage floor + reverse-neighbour fallback 补齐全量商品覆盖，尤其对冷启动物品有效。
- 用 graph-RRF 做多路召回融合：对每个 facet 的生成候选按 RRF 打分后乘以 query-candidate 图边权重，无边的候选归零过滤；可借鉴到商品知识图谱/关系图与生成式推荐融合，防止模型生成「幻觉邻居」；论文中 graph-RRF 相比 plain fusion R@20 +13.38%。
双角色标识符的生成式通用多模态检索
🧭 生成式多模态检索 · 双角色 Semantic ID ★ 深度解读
Independent Researcher, Japan · Institute of Library, Information and Media Science, University of Tsukuba, Japan · College of Knowledge and Library Sciences, University of Tsukuba, Japan
DrIG 将同一残差量化 ID 同时作为顺序解码序列和无序集合先验，缓解前缀剪枝错误，并以 dense 重排补偿量化损失
📌 工作参考价值（4 点）
- 双角色 Semantic ID 可直接用于生成式召回：将商品 ID 设计为分层量化 token，第一层编码类目/模态，其余层编码语义；推理时 beam search 不仅用 decoder 序列分数，还加入由 ID 无序集合计算的全局相关性分数，缓解 beam search 前缀剪枝误杀。
- 生成召回 + dense 精排是现实的混合架构：先用轻量生成式模型通过 Trie 约束 beam search 召回 top-k，再用 query/item embedding 余弦相似度重排，避免全库 ANN 打分，额外成本仅为 O(kd)，适合大规模电商商品库。
- Query augmentation 与判别排序目标可迁移：用 query-target embedding 的 Beta 插值生成增强 query 稳定生成器训练；用 teacher 相似度计算 adaptive margin 的 pairwise ranking loss，使 decoder 序列分数更贴近排序目标，适合用于生成式商品召回的训练。
- LMM 作为多模态 item embedding 编码器：用 “summarize in one word” 提示提取 <emb> 前 hidden state 作为通用多模态表示，再做多任务对比微调，可复用到图文商品/内容理解与跨模态召回。
生成式文档检索的 Token 级信用分配优化
🧭 生成式检索 · Token 级信用分配 ★ 深度解读
Shandong University · Peking University · Baidu Inc. · Leiden University
提出 TCA，用 gold hidden-state 轨迹对齐赋予每个 DocID token 细粒度奖励，并以 GRPO 位置归一化优化生成式检索。
📌 工作参考价值（4 点）
- 若在做生成式 item 检索 / semantic ID 生成，不要把 RL reward 当 sequence-level 标量广播到所有 token；可复用 TCA：冻结 SFT 参考模型，缓存 gold item ID 的 decoder hidden states，用当前生成 hidden state 与 gold 的余弦相似度作为 token 级 reward，再加 exact-match bonus 与长度惩罚，轻量且直接对齐解码轨迹。
- 用 GRPO 时，优势估计采用按解码位置在候选组内做标准化，而不是学习 value function；这在离散、trie 约束的 ID 空间中更稳定，尤其适合电商类目树或语义 code 类结构化 ID。
- 保留 constrained decoding / trie 约束；没有约束的 rollout 会生成大量非法或低质量 ID，token 奖励噪声大，NQ-PQ 上 R@1 掉 4.84。业务中生成类目路径或 SKU ID 时，RL 采样和推理阶段都要做合法前缀/路径约束。
- KL 正则强度按 ID 类型区分：lexical / title-URL 类 ID 用很小 KL(0.01) 防止语言模式漂移；semantic / PQ code 类 ID 敏感，KL=0 效果最好。电商场景若生成长尾商品标题或 ID，可按 ID 是否语义化调这个超参。
LLM生成式检索在Snapchat短视频推荐中的工业级落地
🧭 生成式推荐 · 语义 ID 与 LLM 工程落地 ★ 深度解读
Snap, Inc.
首次部署 LLM 生成式检索：多模态 PPR 行为 SID + 两阶段词汇接地 + 推理优化，线上观看时长提升 0.37%
📌 工作参考价值（4 点）
- SID 构建加入 PPR 共现对比损失：用 Pagerank 从用户-视频二部图挑选高质量正样本对，做对比学习，可显著缓解码本碰撞、注入协同信号，视频 ID 唯一率从 16.8% 提升至 32.1%。电商推荐中可以用商品共购图或用户行为图生成类似正样本对，改善语义 ID 的区分度。
- 两阶段 LLM 训练（CPT+SFT）：先用视频描述做 SID 到文本的生成任务，冻住 LLM 只训练新加入的 SID embedding，使新 token 与模型的语义空间对齐；再在用户交互序列上全量 SFT。CPT 可稳定提供额外 0.8%~1.2% 的 Recall/Pass@k 提升，且成本低（一次性训练），值得在引入新 ID 体系时复用。
- 高吞吐推理的工程组合：TensorRT-LLM CUDA 原生 beam search 替换 Python 实现，结合分布式 worker-loop 架构和异步 IO，实现 45.7 倍吞吐提升。对于需要大 beam 宽度的生成式推荐推理，这套组合可直接迁移。训练侧用动态序列打包 + FlashAttention-2 变长支持 + torch.compile 获得 3.6 倍训练提速，同样适用于短序列用户行为训练。
- 架构选择启示：相同参数量下，decoder-only LLM（Qwen3）比 T5 encoder-decoder 在 SID 检索 Pass@32 上高出约 1.5 倍，且缩放至 600M 仍保持显著优势，说明生成式检索应优先选用 decoder-only 预训练架构。
多解码器 OneRec：工业推荐中可控的多目标生成式检索
🧭 生成式检索 · 多目标配额可控 ★ 深度解读
Kuaishou Technology
用共享编码器+多 LoRA 解码器+约束束搜索，在统一生成式检索框架下实现多目标候选配额可控、梯度隔离与互补去重
📌 工作参考价值（4 点）
- 多目标生成式推荐可借鉴该 共享基座 + LoRA 专家 + 梯度隔离 方案：保留一个通用的 General Decoder 吸收曝光样本，每个业务目标（时长、互动、冷启）仅挂载低秩 LoRA 和独立的 BOS / SID 残差，新增目标不干扰主解码器。
- 连续反馈的 RL 微调值得尝试：对时长类目标，不做阈值二值化，直接用用户历史组统计标准化持续奖励，结合 L-GBPO + KL 参考正则，能保留偏好强度且不破坏通用 SID 合法生成能力。
- 多路解码时务必用 约束束搜索（MD-CBS） 避免配额浪费：不同目标解码器按优先级运行，已生成的前缀或完整 SID 在后续路由中被屏蔽，实验证明完整 SID 级别屏蔽优于浅层前缀屏蔽，可恢复几乎全部有效候选数。
- 若资源有限，可通过 配额与束宽解耦 实现成本控制：3 个 LoRA 仅增加 20% 参数量，推理时可通过减小单个解码器的束宽/配额来调节 FLOPs，配额向哪个目标倾斜即可定向提升该路召回。
假设驱动的个性化推荐货架生成
🧭 生成式推荐 · Semantic ID 货架生成 ★ 深度解读
Spotify
将推荐界面货架抽象为自然语言假设，解耦生成规划与目录检索，离线批量产出高质量个性化推荐行
📌 工作参考价值（4 点）
- 将推荐行（如“猜你喜欢”）抽象为“假设-填充”架构：先基于用户画像生成自然语言意图（如“北欧氛围后摇”），再用检索填充具体物品，解耦了意图规划与物品召回，便于独立优化与扩展，可迁移到电商首页多排推荐或搜索推荐横幅。
- 使用 Semantic ID 生成式检索 + 约束解码：在特定内容类型索引上做受限生成，相比 BM25/稠密检索显著提升了检索结果的假设覆盖率与多样性，适合处理大规模异构目录的精准匹配，可直接复用到商品多模态索引或广告创意检索。
- LLM-as-a-Judge 评估货架级质量：设计用户→假设、假设→货架两张评鉴表，从匹配度、特异性、连贯性等维度打分，突破传统逐物品 recall 指标的局限，可用于生成式推荐离线快速迭代。
- 离线批量生成避免线上 LLM 推理延迟：全流程预计算，货架作为附加候选参与排名，无需实时调用大模型；结合均匀随机曝光实验公平评估线上效果，适合高流量场景快速试错。
TSGR：将业务价值感知引入淘宝搜索生成式检索的统一框架
🧭 生成式检索 · 价值感知排序 ★ 深度解读
浙江大学 · 淘宝天猫集团
查询感知并行Semantic ID与价值感知排序模块让单一模型兼具召回与粗排，离线HR@1000提升9.16%，线上GMV+1.64%
📌 工作参考价值（4 点）
- 查询感知并行SID：利用query-item点击统计构建多路并行排序码本，同一物品在不同查询下获得不同token索引，可迁移到需要意图感知的生成式推荐/搜索中，提升长尾查询的召回精准度。
- 召回粗排一体化：VRM 从生成式骨干的隐藏态提取用户表示，通过交叉注意力融合 item side-info 直接输出价值分数，避免了独立粗排模型带来的目标错位和额外延迟，适合对延迟敏感的在线系统。
- 分级训练策略：Pre-SFT 多任务预训练（编码、检索、推荐、协同）激活各项能力，再使用加权多正样本 SFT（pay > click > pv）对齐业务目标，能够稳定训练并降低数据需求，可直接应用于其他业务场景的生成式模型训练。
- 工程化部署：通过前缀树约束前两层 SID 解码，动态 beam search 与 VRM 即时计算价值分，将推理延迟控制在 65ms 以内，为工业级生成式检索的在线部署提供了可行的架构参考。
超越语义ID：将业务价值排序编码入文档标识的生成式检索
🧭 生成式检索 · 业务价值排序 ★ 深度解读
Alibaba
提出 CRID，将DocID解耦为语义聚类与业务价值序数排名，实现无冲突、可增量更新的生成式检索，线上GMV提升1.06%
📌 工作参考价值（4 点）
- DocID设计巧思：将业务价值（转化率等）作为序数排名编码到最后一层codebook，简单替换即可获得比OPQ、Sinkhorn等复杂量化方法更大的Hitrate提升，天然无冲突且支持增量更新。
- 增量更新策略：新物品仅需分配到最近的语义簇，每日根据最新业务统计重排簇内排名，无需重训codebook，对线上时效性友好。
- 分析框架复用：通过prefix N-gram匹配度和业务排名分组，可把生成式检索的召回增益拆解为「个性化偏好泛化」与「统计先验泛化」两个维度，进而指导语义簇大小的选取，平衡top-K与deep-K表现。
- 动态beam校准：多级codebook解码时，不同解码阶段的概率分布差异大，可按累积概率截止点分别设定beam size，在保持Hitrate覆盖的同时节省推理开销。
Prompt Generation 技术报告
🧭 生成式检索 · 配置驱动框架 ★ 深度解读
Taobao Search Team
通过配置驱动框架解耦生成式检索中的特征处理与模型架构，实现快速实验、统一部署和低延迟推理
📌 工作参考价值（4 点）
- 配置即实验：你的业务中每次加特征都要改模型代码吗？PG 把特征类型（文本、嵌入、组合、序列）和处理组件（映射、分桶、投影、合并等）都声明在 JSON 里，换特征只需改配置，几天变几分钟，适合快速迭代。
- 统一线上/线下特征一致性：训练—服务偏移（Training-Serving Skew）是推荐/搜索的顽疾。PG 的事件追踪机制记录线上原始特征，训练时回放，保证一致性 >99%，直接可复用。
- Token 压缩实用：长行为序列（如 45K tokens）被 PG 压缩至约 11K tokens 仍有离线收益，用 mean/combo 合并等算子控制 token 预算，平衡效果与成本，对 LLM4Rec 场景有直接借鉴。
- 插件化扩展：自定义合并算子（如 attention merger）通过注册即可集成，不改框架，便于在电商搜索/推荐中试验特征融合策略。
DaV-Gen：基于草稿-验证范式的端到端生成式检索
🧭 生成式推荐 · Semantic ID · 稀疏稠密混合表征 ★ 深度解读
Alibaba Group · HUJING Digital Media & Entertainment Group
将生成式检索重构为向量召回 + 并行验证，打破自回归解码的延迟瓶颈
📌 工作参考价值（4 点）
- 用向量检索代替逐 token 生成做候选召回：训练时通过对比损失优化用户-物品混合表征，线上用 ANN 快速产生固定大小的候选集，彻底绕过自回归解码的 O(L) 延迟，可落地到搜索/推荐的粗排甚至精排一体化
- 混合稀疏-稠密物品表征融合 trick：将 RQ-VAE 的连续编码向量（保存细粒度语义）与 Semantic ID 的均值池化向量（保存层次结构）经 LayerNorm+MLP 融合为一个向量，同时用于 MIPS 召回和后续打分，比纯 Semantic ID 或纯稠密向量更稳健
- 广播式前缀缓存实现批量化验证：训练和推理时把用户上下文编码成 KV cache 只算一次，再广播给所有候选物品并行计算生成分数，上下文长度不再随候选量线性增长，可直接用于大规模召回-精排合并场景
- 复合损失联合优化解决多阶段目标不一致：对比损失（召回导向）+ 生成损失（语义合理性）+ 两两排序损失（点击与未点击的细粒度校准）同模型训练，能让同一套参数同时做好召回和排序，避免传统级联系统的误差传播
UniSGR：统一语义ID生成与排序的电商生成式推荐框架
🧭 生成式推荐 · Semantic ID 多目标排序 ★ 深度解读
Alibaba International Digital Commerce Group
将多目标排序与语义ID生成联合训练，通过价值感知并行预测和任务感知Token缓解级联系统的目标错位
📌 工作参考价值（4 点）
- 生成 + 排序共享表示：在生成式推荐解码器上直接附加多目标排序模块（PLE），排序损失反向传播优化生成器表示，解决级联架构的目标错位问题，可复用到自家生成式召回系统。
- 价值感知的并行多Token预测（VA-PMTP）：为同一会话中的点击/加购/购买行为分别生成语义ID，并用业务价值权重（购买 > 加购 > 点击）加权的损失函数，使生成器天然偏向高价值候选，适用于多目标场景的召回优化。
- 任务感知Token（TAT）：在解码器输入前拼接可学习的点击/加购/购买任务Token，并通过漏斗感知对比学习（FACL）引导Token与对应行为物品表示对齐，几乎不增加推理成本就能注入目标偏好，适合需要多业务目标解耦的推荐系统。
- STARK树状注意力推理加速：将束搜索的批次维度扩展改为序列维度扩展，利用预定义树注意力掩码消除前缀重复计算，用于语义ID生成推理可获得200%吞吐提升，在检索阶段可直接应用以降低延迟。
Token Factory：高效将异构信号融入大推荐模型
🧭 多模态特征压缩与 soft token 融合 ★ 深度解读
Google
把传统稠密/稀疏特征压缩为 soft token，大幅缩短 prompt 并提升训练与推理效率，保持质量
📌 工作参考价值（4 点）
- 特征压缩到 soft token 以控制 prompt 长度：对于电商推荐中的用户行为序列（点击、加购、下单），每步行为可携带大量稠密特征（停留时长、转化率、价格等），用 MLP 或轻量 Transformer 将每个行为压缩为 1 个 soft token，整段历史压缩为固定数量 token（如 200 条历史 → 200 个 token），避免文本化导致的序列爆炸。
- 固定预算的 prompt 设计：为不同类别的特征（用户侧、候选商品侧、上下文）分别设计 Token Maker，各自输出固定数量的 soft token，保证 prompt 总长度确定，有利于显存规划和 prefix caching。用户侧 token 在一次请求内可复用，显著降低推理延迟。
- 序列压缩的两种工程方案：当历史行为极长（如数千条），可先用 MLP 直接沿序列维度降维（如 500 → 50），或使用基于注意力池化的 K 项合并策略（每 K 个行为合并为 1 个 token），在召回或粗排中节省计算，并已验证 AUC 仍有正向收益。
- 特征融合优于丢弃：实验表明，即使序列已被压缩，在 soft token 中融合更多的稠密/稀疏特征（如商品类目、价格档位）仍能提升 CTR 预估；在召回侧，融合充分特征的 soft token 使新视频的 Unique Impressions 提升 67%，说明压缩不意味着牺牲信息，而是用更好的嵌入空间保留信号。
OneRetrieval：用可编辑生成式模型统一电商多路检索
🧭 生成式检索 · 可编辑Semantic ID ★ 深度解读
Kuaishou Technology
首个兼具高召回与倒排索引级实时编辑能力的生成式检索框架，通过关键词对齐编码和预留槽位实现多路召回统一。
📌 工作参考价值（4 点）
- 保留槽位实现术语实时注入：在码本中为每个属性组预留少量 token，训练时不绑定具体词，仅通过自路由监督保证可解码；部署后只需更新属性词典和 SID-to-item 查找表即可立即上线新词，无需重训模型，完美替代倒排索引的编辑能力。
- 关键词对齐编码 (KAE) 解耦语义与编辑：将语义标识符的每个位置绑定到可解释的属性词而不是量化嵌入，使编辑能力来源于上游字典，与模型策略分离；同时利用 LM 先验提升召回，位置透明便于 debug 和人工干预。
- 信息论驱动的非均匀容量分配：通过互信息损失聚类将 18 类细粒度属性合并为 6 组，密集组分配更大码本容量（2048 vs 1024），显著减少属性词冲突，提升深层召回（HR@350 达 0.6055）且几乎不增推理成本。
- 四阶段 SFT 联合保障质量与可编辑性：阶段 0 对齐槽位与属性词先验，阶段 2 引入协同共现信号为预留槽路由打下基础，阶段 3 用极小量自路由样本保持预留槽可发射；新增功能与检索质量通过近解耦的 stage 分别保障，避免相互干扰，可直接迁移到其他生成式推荐系统。
通过前缀保留优化弥合多模态生成检索的索引-解码鸿沟
🧭 多模态生成式检索 · 前缀保留优化 ★ 深度解读
Shandong University · CISPA Helmholtz Center for Information Security · University of Amsterdam · Leiden University
提出前缀保留优化框架，从排序蒸馏、词汇调度和几何融合三方面提升残差码本在束搜索中的前缀存活率
📌 工作参考价值（4 点）
- 前缀排序蒸馏：在RQ标识符学习时，引入listwise蒸馏损失，使量化后前缀概率分布与冻结编码器的原始分布对齐，减少索引-解码排名分歧。该方法可直接用于生成式推荐中的Semantic ID训练，提升束搜索解码时的目标保留。
- 词汇表调度：将残差量化各级codebook大小设计为递增（浅层小、深层大），降低束搜索早期大量非目标前缀的竞争，增大教师边际，提高目标前缀浅层存活率。在电商推荐粗粒度类目上可借鉴，减少不必要的早期剪枝。
- 几何分数融合：解码时，用查询与候选codeword的几何相似性（残差距离减少量）增强解码得分，无需重新训练即可改善解码器与量化分布的对齐。适用于线上实时推理，可直接集成到现有生成式检索/推荐系统中。
- 理论生存界限：将前缀存活分解为排名散度、教师边际和解码器不匹配三个可控量，提供了一种诊断工具，可迁移到其他RQ-based生成式系统，识别并优化瓶颈。
Gryphon：统一语义ID生成与物品级评分的生成式推荐架构
🧭 生成式推荐 · Semantic ID · item-level scoring ★ 深度解读
Yandex
在生成式检索中引入联合训练的物品级评分模块，解耦beam likelihood与最终排序，解决SID碰撞和得分失校准
📌 工作参考价值（4 点）
- 用beam search做ID候选生成，再加一个轻量级评分器重排序：工程上可复用的架构模式，beam likelihood仅用于控制候选池入口，最终排序由Item-Level Scoring Module（ILSM）接管，避免beam失校准影响回召；尤其适合SID碰撞严重的动态目录场景。
- ILSM复用编码器用户状态，成本极低：只需一层用户-物品交叉注意力+MLP，几乎不增加推理耗时，可直接集成到现有生成式检索模型中。
- 联合训练目标：生成损失 + 带流行度纠正的next-item prediction损失：共享编码器，使同一用户表示同时支持SID质量与物品级相关性，训练稳定，可推广到多目标优化。
- 在线A/B证明单一生成式模型可替代复杂多路召回：Gryphon取代了15+候选源与预排序，候选量从3000降至1000，核心指标持平，大幅降低系统复杂度和运维成本，对电商推荐系统多路融合极有参考价值。
基于类别引导的潜在意图推理：电商生成式检索的桥接语义鸿沟
🧭 生成式推荐 · 潜在推理 · 类别层级 ★ 深度解读
Beihang University · Meituan · Renmin University of China · Beijing Information Science and Technology University
CaLIR 利用产品类别层级在连续空间进行潜在意图推理，避免显式 CoT 的延迟，高效桥接查询与语义 ID 的鸿沟。
📌 工作参考价值（4 点）
- 用产品类别层级做生成式检索的隐式推理脚手架：在电商场景中，可直接复用现有的多级类目体系，将解码器隐藏状态逐层对齐到类目，替代显式思维链，大幅降低线上延迟。
- 多正例对比学习处理多意图查询：电商查询常对应多个有效类目，使用 Multi-Positive InfoNCE 损失，让查询的潜在状态同时靠近所有相关类目原型，提升意图覆盖与鲁棒性。
- 动态装配类别级前缀树约束解码：线下按类目预建语义 ID 前缀 Trie，线上根据推理出的 Top-K 类目动态合并，缩小搜索空间，提高解码准确率且几乎不增加在线开销。
- 粗到细的潜在推理无需显式解码步：插入固定数量的连续隐状态滑动推理（L 步），不产生额外 token，只在 beam search 前一次性计算，批量处理后与编码器状态拼接用于后续解码，适用于低延迟电商搜索。
用于生成式检索的门控双向线性注意力
🧭 生成式推荐 · 线性注意力 ★ 深度解读
Yandex
提出GBLA混合编码器，以1:2交错自注意力与线性注意力，在长序列生成式检索中匹配双向自注意力质量，推理加速最高8.2倍
📌 工作参考价值（4 点）
- 混合编码器是工程落地的优选策略：在生成式推荐编码器中，以[SA, LA, LA]模式（1个标准自注意力层 + 2个线性注意力层）替换全自注意力，能在几乎不损失召回率的同时大幅降低长序列下的延迟，适合历史行为序列极长的电商或流媒体场景。
- GBLA的三个轻量组件可以直接复用：针对线性注意力添加上下文卷积（Conv1D）、Key门控（soft forgetting）和RMSNorm门控输出，每个组件带来约0.5-1个点的Recall提升，实现成本低，可在自研模型里快速实验。
- 双向注意力对编码器至关重要：实验表明编码器用双向掩码比因果掩码在Recall@10上绝对高出9个百分点以上，设计生成式推荐编码器时应坚决保留双向上下文。
- 长序列推理加速的临界点：在H100上，序列长度超过4096时线性注意力开始反超FlashAttention-v3，到32K时加速8.2倍；这提示在用户序列长度上万级别时，线性注意力是延迟瓶颈的有效解法。
UniPinRec：在 Pinterest 规模统一生成式检索与排序
🧭 统一检索与排序的全栈推荐 ★ 深度解读
Pinterest
通过掩码动作建模、联合训练与跨进程 KV 缓存共享，实现检索和排序的全栈统一，线上提升互动并降低延迟。
📌 工作参考价值（4 点）
- 掩码动作建模（MAM）：将排序监督直接融入检索的序列输入，随机掩码历史动作避免序列长度膨胀，实现检索与排序共享同一主干，可快速复用到多任务推荐场景。
- 跨阶段 KV 缓存共享：通过 GPU 内存池 + CUDA IPC 实现进程间零拷贝传输，排序阶段复用检索生成的用户历史 KV，将排序的计算量从 O(n²) 降至 O(nk)，显著降低在线延迟。
- 统一训练数据构造：采用 feedview（展示集）作为排序监督，构建“过去行为序列 + 未来展示列表”的统一样本，结合 Ray 在线桶连接避免数据膨胀，为级联模型的联合训练提供了可落地的数据管线范式。
- 增量上线策略：先替换检索+轻量排序（L0+L1），再逐步扩展到精排，保持与现有系统兼容，支持分阶段 A/B 测试和回滚，降低统一模型部署风险。
将思维链融入生成式检索：ThinkGR 初步探索
🧭 生成式检索 · Chain-of-Thought 集成 ★ 深度解读
Shandong University, Qingdao, China
首次在生成式检索中实现思考与文档ID生成交错进行，通过混合解码和检索奖励的强化学习取得SOTA。
📌 工作参考价值（4 点）
- 思考-检索交错范式：在生成式推荐中，可让模型先生成推理步骤（如需求拆解），再生成候选 item ID，缓解复杂意图与商品之间的语义鸿沟，适用于多步推理的购物场景。
- 混合解码策略：使用 FM-index 等约束解码保证生成的 item ID 合法，避免推荐不存在的商品，同时保留自由文本思考的灵活性，实现端到端可靠生成。
- 检索奖励驱动的思考优化：用业务指标（如点击率、转化率）作为奖励信号，通过 KTO 等 RL 方法优化模型思考质量，无需人工标注思考步骤，适合线上持续学习。
- 结构化标识表示：以知识三元组作为文档/商品 ID，增强关系推理能力，可借鉴为商品属性三元组，提升生成式推荐中的可解释性与检索效率。
生成式对话推荐系统：语义ID与结构化生成统一框架
🧭 生成式对话推荐 · Semantic ID · 结构化生成 ★ 深度解读
Nanyang Technological University
将对话推荐统一为自回归生成任务，通过语义ID和结构化分解实现端到端优化，召回提升达29%
📌 工作参考价值（4 点）
- 语义ID替代自然语言标题：在电商对话推荐中，可对商品建立语义ID（通过RQ-VAE量化商品文本描述），将推荐动作转化为ID生成，避免标题幻觉和词汇表爆炸。
- 结构化生成范式：将对话回复分解为“意图（推荐/闲聊）→ 目标商品ID → 自然语言回复”的因果依赖，可在多轮Agent中显式控制推荐决策，提升一致性和可控性。
- 受限解码保证ID忠实性：在推理时通过beam search约束生成有效的商品ID，杜绝“推荐不存在商品”的问题，对电商场景的幻觉控制有直接借鉴。
- 仅微调新token的LoRA策略：保持LLM主干冻结，只训练语义ID、模式等新引入token的嵌入，实现参数高效适配，适合业务中快速迭代多个商品库。
面向可持续增长：电商搜索的多价值感知检索框架
🧭 生成式推荐 · 冷启动与长期生态价值 ★ 深度解读
Taobao & Tmall Group of Alibaba
提出兼顾即时转化与新商品长期增长潜力的多价值感知生成式检索框架，在淘宝实现新商品GMV提升5.3%
📌 工作参考价值（4 点）
- 长短期价值解耦的奖励设计：通过 ItemLTV 反事实预测新商品的“增量交易价值”，将长期潜力量化为可优化信号，可直接迁移到电商推荐/检索的重排或混排阶段，作为长期收益的辅助目标。
- 多价值对齐训练范式 (MoPO)：将搜索漏斗（曝光→点击→购买）与 ItemLTV 分数统一为加权奖励，并用 clipped importance weight 缓解头部偏差，可复用到多目标召回模型，自动探索高潜力长尾商品。
- 生成式检索 + Semantic ID 的冷启动方案：利用 RQ-VAE 生成三层语义ID，并在解码时使用 trie 约束保证合法性，可借鉴到品类多、新品频出的电商场景，避免 ID 冷启动问题。
- 线上 A/B 测试设计：结合用户侧（即时效率）和物品侧（长期增长）分桶实验，提供了一套评估长期生态价值的方法论，对业务中衡量新商品扶持策略的真实效果很有借鉴价值。
生成式长期用户兴趣建模用于点击率预估
🧭 生成式长期用户兴趣建模 ★ 深度解读
MeiTuan
提出生成式长期兴趣模型GenLI，用目标无关的生成分布代替目标中心检索，实现兴趣多样性和效率提升
📌 工作参考价值（4 点）
- 生成式兴趣分布替代目标中心检索：业务中可借鉴IGM思想，用近期行为生成多类兴趣向量（显式、隐式、相对），再通过哈希查表选择长期行为，避免每次请求都与全量行为做相似度计算，大幅降低线上延迟。
- 多兴趣分布设计提升推荐多样性：显式/隐式/相对三种分布的监督信号（点击行为、曝光行为、差值）可迁移到电商推荐或广告中，帮助显式刻画短期、隐式刻画长期、相对趋势捕捉兴趣变化，增强召回或排序阶段的多样性。
- 行为检索的O(1)查分方式：将离散兴趣分布与行为ID取模后直接查概率，可作为轻量级GSU部署，尤其适合物料数海量、行为序列超长的场景，比SIM/ETA的复杂哈希或内积更省资源。
- 端到端可插拔框架：GenLI作为即插即用的长期兴趣模块，可嵌入现有CTR模型，工程上只需在损失函数中加入显式/隐式兴趣辅助损失（标签来自点击或曝光项），线上部署改动小，A/B测试证实RPM提升1.5%+。
基于语义聚类ID与专家引导RL的高效电商搜索生成式检索
🧭 RecSys ★ 深度解读
Taobao & Tmall Group of Alibaba
提出语义聚类ID（CQ-SID）和专家引导GRPO，在电商搜索召回中大幅提升命中率并降低推理成本，在线GMV提升1.15%